<p></p><br /><br />[앵커]<br>이처럼 AI가 새로운 문화 콘텐츠의 자극제가 되기도 하지만, 반대로 AI가 만드는 가짜뉴스도 큰 문제입니다.<br><br>그럴듯한 가짜 사진, 정교하게 짜인 가짜 스토리가 우리의 눈과 귀를 현혹하고 있는 겁니다. <br> <br>AI가 민주주의를 위협하고 있습니다.<br> <br>세계를 보다, 김성규 기자입니다.<br><br>[기자]<br>[CNN 뉴스] <br>“오늘 펜타곤 근처에서 폭발이 있는 사진이 공개 됐습니다.” <br> <br> 미군의 심장인 펜타곤 인근에 검은 연기가 피어오르는 사진이 공개되자 미국 국채와 금 가격은 치솟았고 증시까지 한때 출렁였습니다.<br> <br> 러시아의 선전매체까지 깜빡 속아 폭발 사진을 게재하며 환호했습니다. <br> <br> 그러나 AI가 만든 가짜 이미지였고 미 국방부는 조작이라고 해명했습니다. <br> <br>[CNN 뉴스] <br>“대충 만든 가짜 사진과 트위터 인증 계정만으로 증시에 악영향을 미치고 일부 언론사를 속였습니다.” <br> <br> 우크라이나 군인들에게 무기를 내려 놓으라고 연설하는 젤렌스키 우크라이나 대통령. <br><br> 러시아 해커의 소행으로 추정되는 이 영상에 대해 젤렌스키 대통령은 “무기를 내려 놓아야 할 것은 러시아 군”이라며 서둘러 군의 사기를 수습해야 했습니다.<br><br> 트럼프 전 미국 대통령이 체포되는 과정이 담긴 가짜 사진은 워낙 정교해 지지자들을 한때 자극했습니다. <br> <br> 튀르키예 강진 당시에는 피해 어린이를 안고 있는 가짜 그리스 구조대 사진으로 모금 사기가 벌어졌고 프란치스코 교황이 입은 <br>흰색 롱패딩이 AI 사진인줄 몰랐던 소비자들은 구매 의사를 내비치기도 했습니다. <br><br>“시청자 여러분 안녕하십니까. 톰 크루즈입니다.” <br> <br> 영화배우 톰 크루즈가 한국어를 유창하게 해서 많이 놀라셨을 겁니다. <br> <br> 기자의 모습에 영화배우 톰 크루즈의 얼굴만 합성한 가짜 AI 영상입니다. <br> <br>특별한 기술이나 전문 지식 없어도 다운로드 받은 프로그램으로 단 몇 분 만에 누구나 만들 수 있습니다.<br> <br> 가짜뉴스를 뒷받침할 수 있는 AI 콘텐츠까지 범람하자 챗GPT 창시자도 규제의 필요성을 경고합니다. <br> <br>[샘 올트먼 / 오픈AI 창업자 겸 최고경영자] <br>“우리 기술과 산업이 세계에 해악을 미칠까봐 두렵습니다. 이를 막기 위해 정부와 협력하고 싶습니다.” <br> <br> 미국 금융시장을 흔들었던 AI 가짜뉴스는 이제 내년으로 다가온 미국 대선도 위협하고 있어 규제 논의에 속도가 붙었습니다. <br> <br>[이승환 / 소프트웨어정책연구소 책임연구원] <br>“딥페이크를 잡는 또 다른 인공지능, 기술적인 조치, 기업들의 자율적인 규제, 정부의 가이드라인이나 입법조치 등이 복합다단하게 전개가 될 겁니다.” <br> <br> 특히, 내년 총선을 앞둔 우리나라는 SNS로 확산되는 진영 정치 영향으로 정교한 가짜뉴스에 더 취약할 수 있다는 우려가 나옵니다. <br> <br>세계를보다, 김성규입니다.<br /><br /><br />김성규 기자 sunggyu@ichannela.com
